Zero-Mem: Zero-Token Memory Operations for LLM Agents
Zero-Mem:面向LLM智能体的零Token记忆操作
🧭 Agent 零Token记忆操作 ★ 深度解读
The Hong Kong Polytechnic University · Southwestern University of Finance and Economics · Jilin University
提出零Token记忆框架,用实体图和时序层次替代生成式抽象,全部记忆操作不占用LLM调用或Token。
📌 工作参考价值(4 点)
- 零LLM记忆管道:记忆构建、检索、路由、校准等全部环节都用确定性算法和编码器完成,避免生成式抽象,可直接用于电商Agent的“用户长期偏好/行为记忆”,将记忆部分与最终生成解耦,极大降低Token开销和延迟。
- 双视图结构化检索:实体-上下文图捕获跨会话关联,时间层次保留对话局部性和状态,通过查询路由动态加权融合。推荐系统Agent可以仿造这种“关系+时序”双重索引,处理用户多轮意图变迁与跨会话关联。
- 证据校准与封闭:检索后自动补充关系桥接和局部上下文,再用边界与类型滤波提炼证据,最后对答案进行确定性校验。这套方法可复用到电商QA或对话推荐的后处理阶段,提高生成事实性与一致性,无需额外LLM调用。
- 保留原始痕迹:Zero-Mem不生成中间摘要或笔记,所有证据都可追溯到原始交互,适合需要审计、合规且长周期交互的电商客服或导购场景,在低成本下提供可解释的原文支持。